در پردازش زبان طبیعی تشخیص موجودیت های نامدار، فرآیندی است که در آن موجودیت هایی شامل مکان، زمان، اشخاص و سازمان شناسایی می شوند. در این مقاله جهت تشخیص موجودیت های نامدار از یادگیری انتقالی استفاده شده است، مزیت اصلی استفاده از یادگیری انتقالی هنگامی نمایان می شود که مجموعه داده کوچکی در حوزه پژوهشی مورد نظر وجود داشته باشد. شبکه حافظه ی کوتاه مدت طولانی در استخراج اطلاعات از داده هایی که به صورت دنباله ای از کلمات هستند و دارای وابستگی طولانی می باشند، نسبت به شبکه های عصبی بازگشتی بسیار پر کاربرد و دارای عملکرد بالاتری هستند، همچنین استفاده از مکانیزم توجه جهت بدست آوردن برداری که نشان دهنده میزان تاثیر دیگر کلمات در کلمه مورد نظر باشد از اهمیت خاص برخوردار می باشد. در این مقاله برای اولین بار از ترکیب مدل زبانی برت، شبکه حافظه ی کوتاه مدت طولانی، شبکه حافظه ی کوتاه مدت طولانی دوطرفه و مکانیزم توجه به صورت تمرکز بر روی یک کلمه قبل و بعد استفاده گردیده است. نتایج نشان می-دهد استفاده همزمان چندین مورد اشاره شده فوق، همچنین استفاده از رویکرد اصلی مکانیزم توجه در تشخیص موجودیت های نامدار می تواند بهبود عملکرد سیستم را در پی داشته باشد. عملکرد مدل پیشنهادی بر روی دیتاست مورد نظر با در نظر گرفتن معیار F1-score، 91.34 می باشد.

یکی از مراحل اولیه در بیشتر پردازش های زبان طبیعی، استخراج موجودیت نامدار از جمله است. در این زمینه تکنیک های مختلف مبتنی بر یادگیری ماشین ارائه شده است که بدون نیاز به پیچیدگی های استخراج ویژگی دستی، دقت بالاتری از خود نشان داده اند. لذا، دراین تحقیق ما برای گرفتن ویژگی های جمله ورودی از ترکیب دو مدل یادگیری عمیق شامل شبکه عصبی کانولوشن و همینطور حافظه کوتاه مدت طولانی استفاده می کنیم. با استخراج ویژگی های محلی کلمات توسط شبکه کانولوشن در کنار ویژگی های سراسری، اطلاعات بیشتری از جمله جهت کلاسبندی دقیقتر موجودیتها بدست میآوریم. ما معماری پیشنهادی مان را روی دو دیتاست CoNLL2003 و ACE05 ارزیابی می نماییم و نشان میدهیم که افزودن شبکه کانولوشن سطح کلمه باعث استخراج اطلاعات محلی مفیدی از کلمات موجود در جمله می شود که منجر به افزایش دقت سیستم می گردد. در نهایت، کارایی سیستم را با دیگر رقبا مقایسه مینماییم و برتری این معماری نسبت به دیگران گزارش داده می شود.

شناسایی موجودیت های نامدار [1] یکی از فعالیت های زیربنایی در حوزه پردازش زبان طبیعی [2] و به طور کلی زیر مجموعه ای از استخراج اطلاعات [3] است. در فرآیند شناسایی موجودیت های نامدار به دنبال یافتن عناصر اسمی در متن و دسته بندی آنها به رده هایی ازپیش تعیین شده از قبیل اسامی اشخاص، سازمان ها، مکان ها، مذاهب، عنوان کتاب ها، عنوان فیلم ها و غیره هستیم. در این مقاله با بهره گیری از روش های نوین در این حوزه مانند استفاده از دو بردار مختلف بازنمایی معنایی واژگان برمبنای کلمه و حروف تشکیل دهنده آن برمبنای شبکه های عصبیو همچنین استفاده از روش های یادگیری عمیق [4] یک سامانه تشخیص موجودیت های نامدار معرفی می شود. همچنین در راستای پژوهش حاضر، یک پیکره برچسب گذاری شده شامل سه هزار چکیده از ویکی پدیای فارسی که شامل نود هزار واژه است با استفاده از پانزده برچسب مختلف ارایه می شود که گام مهمی در ارتقای پژوهش های آینده این حوزه برداشته خواهد شد. نتایج حاصل از ارزیابی سامانه پیشنهادی نشان می دهد که می توان با استفاده از داده معرفی شده به دقت 09/72 در معیار F رسید.

متن کامل این مقاله به زبان انگلیسی می باشد. لطفا برای مشاهده متن کامل مقاله به بخش انگلیسی مراجعه فرمایید.لطفا برای مشاهده متن کامل این مقاله اینجا را کلیک کنید.

تشخیص موجودیت های نامدار فرآیندی است که در آن اسامی اشخاص، مکان ها(شهرها، کشورها، دریاها و غیره)، سازمان ها(شرکت های خصوصی و دولتی، نهادهای بین المللی و غیره)، تاریخ، واحدهای پولی و درصدها در یک متن شناسایی می شوند. تشخیص موجودیت های نامدار نقشی اساسی در سامانه های پرسش و پاسخ، خلاصه سازی، ترجمه ماشینی، برچسب زن نقش معنایی، جستجوی معنایی، استخراج رابطه و شناسایی نقل قول دارند. در این مقاله ابتدا فرهنگ واژگان موجودیت های سازمان، مکان و اشخاص با استفاده از محتوای ویکی پدیای فارسی استخراج شد؛ سپس با استفاده از قواعد، سامانه پیشنهادی توسعه یافت. در ادامه دقت شناسایی موجودیت های نامدار با استفاده از کسره اضافه که یکی از ویژگی های مهم زبان فارسی است، بهبود داده شد. جهت ارزیابی سامانه تعداد 42 هزار کلمه از پیکره بی جن خان به صورت دستی برچسب زده شدند و معیار F 92/81 درصد به دست آمد. نتایج حاکی از آن است که با استفاده از کسره اضافه در سامانه های تشخیص موجودیت دقت آن ها به طور قابل ملاحظه ای افزایش می یابد.

رشته حملات پیچیده و ماندگار نفوذ به شبکه از مراحل نامحسوس و مخفی متعددی تشکیل شده اند. یکی از دلایل ناکارآمدی سامانه های تشخیص نفوذ در برابر این حملات، استفاده از سازوکار دفاعی مبتنی بر آنالیز ترافیک شبکه ای سطح پایین است که در آن به روابط پنهان بین هشدارها توجه نمی شود. فرض ما این است که اطلاعات ساختاری پنهان در داده های ترافیکی وجود دارند و ما می خواهیم در ترافیک شبکه ای قواعدی مانند قواعد زبان تعریف کنیم و آن را برای توصیف الگوهای فعالیت های شبکه ای بدخواهانه به کار بگیریم. به این وسیله می توانیم مسئله کشف الگوهای سوء استفاده و ناهنجاری را همانند مسئله یادگیری ساختارهای نحوی و قطعات مفهومی "زبان شبکه" حل کنیم. در این مقاله برای مدل سازی در مرحله تولید دنباله ها برای اولین بار در حوزه سایبری از یک خوشه بندی جدید به عنوان خوشه بندی MD_DBSCAN که یکی از انواع بهبودیافته خوشه بندی DBSCAN است، استفاده شده است. علاوه بر این، از یک الگوریتم حریصانه با الهام از القاء گرامر در پردازش زبان طبیعی استفاده شده تا با ادغام فعالیت های سطح پایین بتوانیم فعالیت های سطح بالا را کشف کنیم و روابط بین فعالیت های سطوح مختلف را تعریف کنیم. در بخشی از الگوریتم پیشنهادی برای کشف فعالیت های سطح بالا، برای اولین بار معیار شباهت ویرایش در خوشه بندی سلسله مراتبی به معیارهای موجود در الگوریتم پایه اضافه شده است. نتایج نشان می دهد دقت تشخیص در فعالیت های سطح بالا نسبت به فعالیت های سطح پایین با توجه به نمودار ROC حدود 30 % بیشتر است. همچنین، با تنظیم بهترین حد آستانه در الگوریتم تشخیص حملات، با درنظرگرفتن معیار F1، برای لغات سطوح یک تا سه به ترتیب به نتایج 3/72 و 2/96 و 4/96 در پنجره پیش بینی با اندازه سه رسیده ایم که به طورکلی حدود 2/. نسبت به الگوریتم پایه بهبود نشان می دهد.